Năm 1950 ông được chuyển biên chế sang phục vụ Quân đội Quốc gia thuộc Quốc gia Việt Nam do Quốc trưởng Bảo Đại làm Tổng Chỉ huy. Đầu năm 1954 ông rời Việt binh đoàn ở Huế chuyển đi làm Tiểu đoàn trưởng Tiểu đoàn 603 Khinh quân,[4] đồn trú tại Phan Rang. Ngày 1 tháng 7 năm 1954, ông được thăng cấp Thiếu tá do sự vận động của Đại tá Nguyễn Ngọc Lễ, Tư lệnh Phân khu Duyên Hải.

Sau khi Chí sĩ Ngô Đình Diệm về nước giữ chức vụ Thủ tướng, mâu thuẫn giữa tân Thủ tướng và Tổng Tham mưu trưởng Nguyễn Văn Hinh nhanh chóng bùng nổ. Tướng Hinh lên kế hoạch đảo chính Thủ tướng Diệm nhưng bất thành. Được sự vận động của Đại tá Nguyễn Ngọc Lễ, bấy giờ là Tư lệnh Phân khu Duyên hải, ông đã đem 700 quân[5] rút vào vùng rừng núi Sầu Đâu, cách Phan Rang khoảng 10 cây số để lập Chiến khu Đông, chống lại tướng Nguyễn Văn Hinh, biểu lộ thái độ ủng hộ Thủ tướng Diệm.